1.背景

網(wǎng)絡(luò)空間（Cyberspace）被稱為陸、海、空、天之外的第五大主權(quán)空間，網(wǎng)絡(luò)空間安全關(guān)乎國(guó)家安全和利益。隨著云計(jì)算、物聯(lián)網(wǎng)、移動(dòng)互聯(lián)網(wǎng)、大數(shù)據(jù)、人工智能等技術(shù)的部署應(yīng)用，網(wǎng)絡(luò)空間呈現(xiàn)組成結(jié)構(gòu)復(fù)雜化、保護(hù)對(duì)象動(dòng)態(tài)化、系統(tǒng)運(yùn)行智能化等特點(diǎn)，這些變化給網(wǎng)絡(luò)空間安全帶來了新的挑戰(zhàn)。

近年來，以機(jī)器學(xué)習(xí)為核心的人工智能技術(shù)在計(jì)算機(jī)視覺、語音識(shí)別、自然語言處理等方面取得了較好的應(yīng)用效果，展現(xiàn)了機(jī)器學(xué)習(xí)在分類、預(yù)測(cè)及輔助決策方面的能力優(yōu)勢(shì)，也為解決網(wǎng)絡(luò)空間安全問題帶來了新的途徑。目前，機(jī)器學(xué)習(xí)技術(shù)在惡意樣本檢測(cè)、DGA域名檢測(cè)、DNS隧道檢測(cè)、惡意加密流量檢測(cè)、威脅情報(bào)挖掘等領(lǐng)域都有一定應(yīng)用效果。然而，人工智能技術(shù)是把雙刃劍。一方面可用于網(wǎng)絡(luò)安全防護(hù)，提升防御者的能力，另一方面也可用于幫助攻擊者增強(qiáng)攻擊能力。此外，基于人工智能技術(shù)的各類系統(tǒng)，不僅面臨來自軟件、硬件、網(wǎng)絡(luò)等方面的傳統(tǒng)安全威脅（如：軟件漏洞利用），還面臨來自機(jī)器學(xué)習(xí)算法、模型等人工智能技術(shù)自身特有的安全威脅（如：對(duì)抗樣本攻擊）。

現(xiàn)階段，人工智能安全已經(jīng)成為工業(yè)界和學(xué)術(shù)界的熱門話題，相關(guān)研究工作主要圍繞人工智能自身安全和人工智能賦能安全兩大方向，相關(guān)理論和技術(shù)還在不斷發(fā)展，仍存在不少問題和挑戰(zhàn)。

本文主要對(duì)人工智能安全的概念含義和研究?jī)?nèi)容進(jìn)行了介紹，并說明了天融信智能安全研究團(tuán)隊(duì)在人工智能安全方面的技術(shù)研究、積累和實(shí)踐。

2.人工智能安全概念

中國(guó)工程院方濱興院士指出了新技術(shù)和安全之間存在的兩種關(guān)系：第一種是新技術(shù)服務(wù)于安全即新技術(shù)賦能安全，既可以服務(wù)于防御，也可以服務(wù)于攻擊。第二種是新技術(shù)引入新的安全問題即新技術(shù)和安全是伴生關(guān)系。人工智能作為新技術(shù)，即可以賦能網(wǎng)絡(luò)安全，提升網(wǎng)絡(luò)防護(hù)能力，也可以被惡意利用，增強(qiáng)攻擊性和破壞影響力。同時(shí)，人工智能技術(shù)自身存在脆弱性，如果被攻擊者利用，可能引發(fā)的新的安全風(fēng)險(xiǎn)[1]。

綜合分析，人工智能安全概念應(yīng)該從人工智能的自身安全和人工智能的安全應(yīng)用兩方面去理解（見圖1）。

人工智能的自身安全指人工智能應(yīng)用的自身脆弱性帶來的安全問題，具體分為兩類：

傳統(tǒng)安全：指人工智能應(yīng)用系統(tǒng)中軟硬件方面脆弱性帶來的安全問題。例如，自動(dòng)駕駛系統(tǒng)軟件漏洞被利用而植入惡意代碼，導(dǎo)致車輛無法正常運(yùn)轉(zhuǎn)。

特有安全：指人工智能應(yīng)用系統(tǒng)中機(jī)器學(xué)習(xí)算法、模型脆弱性帶來的安全問題。例如，自動(dòng)駕駛系統(tǒng)的圖像分類算法受到對(duì)抗樣本攻擊，導(dǎo)致路標(biāo)識(shí)分類錯(cuò)誤，進(jìn)而造成車輛行駛決策失效。

人工智能的安全應(yīng)用指以人工智能相關(guān)技術(shù)為支撐的安全應(yīng)用，包括：

安全防御：指基于人工智能的安全檢測(cè)、安全防護(hù)等應(yīng)用。例如，入侵檢測(cè)。

安全攻擊：指基于人工智能的入侵隱藏、行為欺騙等應(yīng)用。例如，社會(huì)工程攻擊。

3.人工智能安全研究

3.1.人工智能的自身安全

3.1.1.安全風(fēng)險(xiǎn)分析

國(guó)際標(biāo)準(zhǔn)化組織ISO將人工智能系統(tǒng)全生命周期概括以下8個(gè)階段：

初始：指將想法轉(zhuǎn)化為有形系統(tǒng)的過程，主要包括：任務(wù)分析、需求定義、風(fēng)險(xiǎn)管理等過程。

設(shè)計(jì)研發(fā)：設(shè)計(jì)研發(fā)階段是指完成可部署人工智能 系統(tǒng)創(chuàng)建的過程，主要包括：確定設(shè)計(jì)方法、定義系統(tǒng)框架、軟件代碼實(shí)現(xiàn)、風(fēng)險(xiǎn)管理等過程。

檢驗(yàn)驗(yàn)證：指檢查人工智能系統(tǒng)是否按照預(yù)期需求工作以及是否完全滿足預(yù)定目標(biāo)。

部署：指在目標(biāo)環(huán)境中安裝和配置人工智能系統(tǒng)的過程。

運(yùn)行監(jiān)控：人工智能系統(tǒng)處于運(yùn)行和可使用狀態(tài)，主要包括：運(yùn)行監(jiān)控、維護(hù)升級(jí)等過程。

持續(xù)驗(yàn)證：對(duì)于開展持續(xù)學(xué)習(xí)的人工智能系統(tǒng)進(jìn)行持續(xù)檢驗(yàn)和驗(yàn)證。

重新評(píng)估：當(dāng)初始目標(biāo)無法達(dá)到或者需要修改時(shí)，進(jìn)入重新評(píng)估階段。該階段主要包括：設(shè)計(jì)定義、需求定義、風(fēng)險(xiǎn)管理等過程。

廢棄：使用目的不復(fù)存在或者有更好解決方法替換的人工智能系統(tǒng)，主要包括：數(shù)據(jù)、算法模型以及系統(tǒng)整體的廢棄銷毀過程。

各階段對(duì)應(yīng)的安全風(fēng)險(xiǎn)如下（圖2）[2].

3.1.2.安全框架設(shè)計(jì)

安全框架是構(gòu)建安全體系的重要指導(dǎo)。圍繞人工智能系統(tǒng)生命周期安全風(fēng)險(xiǎn)，中國(guó)信息通信研究院設(shè)計(jì)一個(gè)比較完整人工智能安全框架[2]。

該框架聚焦于人工智能自身安全問題，即主要解決人工智能基礎(chǔ)設(shè)施和人工智能設(shè)計(jì)研發(fā)面臨的安全風(fēng)險(xiǎn)，以及因前兩方面安全問題直接引發(fā)的人工智能應(yīng)用行為決策失控安全風(fēng)險(xiǎn)。該框架包含：安全目標(biāo)、安全能力、安全技術(shù)和安全管理四個(gè)維度。其中，安全目標(biāo)是保障人工智能應(yīng)用安全的起點(diǎn)和基礎(chǔ)，安全能力是實(shí)現(xiàn)安全目標(biāo)的有效保障，安全技術(shù)和安全管理是安全能力的支撐和體現(xiàn)。其中，技術(shù)和管理維度具體內(nèi)容如下 (圖4)。

3.1.3.研究?jī)?nèi)容

人工智能安全框架（技術(shù)和管理部分）總體上覆蓋了人工智能安全技術(shù)和管理體系范圍，也是人工智能應(yīng)用自身安全研究的主要范圍。其中，業(yè)務(wù)合規(guī)性評(píng)估、漏洞挖掘修復(fù)等都屬于傳統(tǒng)安全研究范圍。而對(duì)抗樣本檢測(cè)、算法魯棒性增強(qiáng)、數(shù)據(jù)分布修正等則屬于機(jī)器學(xué)習(xí)算法、數(shù)據(jù)、模型相關(guān)特有安全研究范圍。

當(dāng)前，人工智能機(jī)器學(xué)習(xí)相關(guān)的特有安全研究主要指對(duì)抗機(jī)器學(xué)（Adversarial Machine Learning,AML）即在對(duì)抗環(huán)境下的機(jī)器學(xué)習(xí)系統(tǒng)攻擊和防御兩個(gè)方面，這也是人工智能安全研究最核心、最熱門的研究話題。以下主要對(duì)這兩方面內(nèi)容進(jìn)行介紹[3]。

3.1.3.1.相關(guān)術(shù)語

對(duì)抗樣本(Adversarial Example)：為使模型出錯(cuò)而對(duì)原始樣本精心擾動(dòng)的樣本。

對(duì)抗訓(xùn)練(Adversarial Training)：使用原始訓(xùn)練集和對(duì)抗樣本共同訓(xùn)練機(jī)器學(xué)習(xí)模型。

敵手(Adversary)：實(shí)施攻擊者。

白盒攻擊(White-box Attack)：攻擊者擁有目標(biāo)模型全部知識(shí)的攻擊,包括：參數(shù)值、模型結(jié)構(gòu)、訓(xùn)練方法、訓(xùn)練數(shù)據(jù)等。

黑盒攻擊(Black-box Attack)：攻擊者僅擁有模型有限知識(shí)的攻擊（例如，只知道模型的反饋結(jié)果）。

灰盒攻擊（Gray-box Attack）：攻擊者僅了解模型的部分信息的攻擊（例如，只知道模型結(jié)構(gòu)，但不知道參數(shù)）。

3.1.3.2.對(duì)抗攻擊

人工智能應(yīng)用的機(jī)器學(xué)習(xí)過程涉及訓(xùn)練數(shù)據(jù)、傳統(tǒng)信道、目標(biāo)模型、推測(cè)結(jié)果等保護(hù)對(duì)象，攻擊者可以根據(jù)其所擁有的條件，針對(duì)整個(gè)學(xué)習(xí)過程發(fā)起相應(yīng)的攻擊，說明如下：

投毒攻擊：該攻擊通過修改一定數(shù)量的訓(xùn)練數(shù)據(jù)使模型訓(xùn)練過程產(chǎn)生錯(cuò)誤的關(guān)系輸出。該攻擊發(fā)生在訓(xùn)練階段，攻擊目標(biāo)是訓(xùn)練數(shù)據(jù)集。攻擊者具有獲取、修改或創(chuàng)造訓(xùn)練數(shù)據(jù)集的能力，知道訓(xùn)練數(shù)據(jù)集的標(biāo)簽等背景知識(shí)。

對(duì)抗樣本攻擊：該攻擊通過構(gòu)造對(duì)抗樣本，使模型推測(cè)過程產(chǎn)生錯(cuò)誤結(jié)果。攻擊發(fā)生在推理階段，攻擊目標(biāo)是測(cè)試數(shù)據(jù)集。攻擊者具有獲取和修改測(cè)試樣本的能力，知道標(biāo)簽等背景知識(shí)。

數(shù)據(jù)竊取攻擊：該攻擊通過存儲(chǔ)和通信機(jī)制的漏洞、查詢或反演技術(shù)等多種手段，竊取機(jī)器學(xué)習(xí)隱私信息(如：訓(xùn)練數(shù)據(jù)、模型訓(xùn)練方法和訓(xùn)練參數(shù))。該攻擊大部分發(fā)生在黑盒攻擊中，攻擊者僅具有竊取部分?jǐn)?shù)據(jù)的能力。

隱私詢問攻擊：指攻擊者在無法獲取訓(xùn)練數(shù)據(jù)和模型數(shù)據(jù)情況下，僅通過觀察測(cè)試數(shù)據(jù)輸入模型后返回的結(jié)果即詢問結(jié)果的方式實(shí)施隱私信息的計(jì)算和推測(cè)。

主要攻擊類型：成員推理攻擊：指攻擊者根據(jù)詢問結(jié)果判斷出某個(gè)個(gè)體是否參與模型訓(xùn)練。訓(xùn)練數(shù)據(jù)提取攻擊：指攻擊者利用詢問數(shù)據(jù)與已有知識(shí)推測(cè)訓(xùn)練數(shù)據(jù)隱私的攻擊。模型提取攻擊：指攻擊者利用詢問接口獲得模型的分類與測(cè)試輸入輸出數(shù)據(jù)，從而重構(gòu)一個(gè)與原模型相似的模型的攻擊。

3.1.3.3.對(duì)抗防御

與上述攻擊相對(duì)應(yīng)的安全防御機(jī)制也有多種，主要包括：正則化、對(duì)抗訓(xùn)練、防御精餾、隱私保護(hù)等，說明如下：

正則化：指通過對(duì)訓(xùn)練數(shù)據(jù)和模型規(guī)范化操作，降低模型的出錯(cuò)率。訓(xùn)練數(shù)據(jù)的正則化可以防御訓(xùn)練數(shù)據(jù)投毒攻擊，提高模型泛化能力，主要包括數(shù)據(jù)集增強(qiáng)、數(shù)據(jù)集擴(kuò)充等措施;模型的正則化可以防御對(duì)抗樣本攻擊,主要利用正則化項(xiàng)對(duì)模型參數(shù)和訓(xùn)練方式進(jìn)行規(guī)范化處理。

對(duì)抗訓(xùn)練：指使用對(duì)抗模型生成帶有完全標(biāo)注的對(duì)抗樣本和合法樣本混合起來對(duì)原模型進(jìn)行訓(xùn)練的過程。主要目的是學(xué)習(xí)對(duì)抗樣本和正確標(biāo)簽的關(guān)系，提升模型魯棒性。

防御精餾：指通過一個(gè)模型的輸出訓(xùn)練另一個(gè)模型的機(jī)器學(xué)習(xí)算法，是在保證訓(xùn)練精度條件下壓縮模型方法，可以增強(qiáng)模型面對(duì)對(duì)抗樣本攻擊的魯棒性。

隱私保護(hù)機(jī)制：數(shù)據(jù)竊取攻擊和隱私詢問攻擊主要針對(duì)模型和數(shù)據(jù)的隱私。加密、擾動(dòng)等機(jī)制可以保護(hù)數(shù)據(jù)和模型的隱私。分布式機(jī)器學(xué)習(xí)、差分隱私等機(jī)制可以使模型以隱私保護(hù)的方式進(jìn)行學(xué)習(xí)。

3.2.人工智能的安全應(yīng)用

3.2.1.人工智能賦能安全的工作流程

如圖所示，人工智能賦能安全應(yīng)用的工作流程包括：安全問題抽象、數(shù)據(jù)采集、數(shù)據(jù)預(yù)處理及安全特征提取、模型構(gòu)建、模型驗(yàn)證以及模型效果評(píng)估6個(gè)階段，各階段不能獨(dú)立存在，相互之間存在一定的關(guān)聯(lián)關(guān)系。例如，數(shù)據(jù)采集、數(shù)據(jù)預(yù)處理、模型構(gòu)建都需要不斷獲取模型驗(yàn)證階段的原因分析結(jié)果作為優(yōu)化調(diào)整依據(jù)[4]。

安全問題抽象：即將網(wǎng)絡(luò)空間安全問題映射為機(jī)器學(xué)習(xí)能夠解決的問題類別。

數(shù)據(jù)采集：指利用數(shù)據(jù)采集手段（如Wireshark、Netflow、日志收集工具等），從系統(tǒng)層、網(wǎng)絡(luò)層及應(yīng)用層采集數(shù)據(jù)。除自行采集數(shù)據(jù)外，還可以使用公開數(shù)據(jù)集。

數(shù)據(jù)預(yù)處理及安全特征提?。簲?shù)據(jù)預(yù)處理主要指對(duì)原始數(shù)據(jù)進(jìn)行清洗和處理，主要包括：對(duì)數(shù)據(jù)規(guī)范化、離散化以及非平衡性的處理等過程。安全特征提取指從預(yù)處理后的數(shù)據(jù)中代表安全問題的本質(zhì)特性的屬性。特征提取操作除了采用人工方式還可以基于深度學(xué)習(xí)的自動(dòng)化方式。

模型構(gòu)建：指根據(jù)數(shù)據(jù)預(yù)處理后的數(shù)據(jù)集及目標(biāo)問題類型，選擇合適的學(xué)習(xí)算法，構(gòu)建求解問題模型的過程，具體工作包括：算法選擇和參數(shù)調(diào)優(yōu)。

算法選擇：在機(jī)器學(xué)習(xí)領(lǐng)域，按照數(shù)據(jù)集是否有標(biāo)記分為監(jiān)督學(xué)習(xí)算法（常用于分類問題和回歸問題）、無監(jiān)督學(xué)習(xí)算法（常用于聚類問題）。常見監(jiān)督學(xué)習(xí)算法：邏輯回歸（Logistic Regression, LR）、人工神經(jīng)網(wǎng)絡(luò)（Artificial Neural Network, ANN）、支持向量機(jī) （Support Vector Machine, SVM）、決策樹、隨機(jī)森林、線性回歸等。常見非監(jiān)督學(xué)習(xí)算法：K-Means, K-近鄰（k-Nearest Neighbor,KNN）、基于密度的DBSCAN（Density Based spatial Clustering of Applications with Noise）算法、層次聚類（Hierarchical Clustering）算法、圖聚類算法等。此外，還有深度學(xué)習(xí)、遷移學(xué)習(xí)、深度增強(qiáng)學(xué)習(xí)算法以及生成對(duì)抗網(wǎng)絡(luò)等算法。

參數(shù)調(diào)優(yōu)：參數(shù)調(diào)優(yōu)與訓(xùn)練目標(biāo)、選擇的算法相關(guān)，當(dāng)前該過程還缺乏足夠的理論指導(dǎo)，需要在龐大的參數(shù)空間來尋找可接受的參數(shù)或者依據(jù)個(gè)人經(jīng)驗(yàn)進(jìn)行調(diào)整。

模型驗(yàn)證：指評(píng)估訓(xùn)練模型是否足夠有效的過程。如果當(dāng)前模型與訓(xùn)練目標(biāo)偏離較大，則通過分析誤差樣本發(fā)現(xiàn)錯(cuò)誤發(fā)生的原因，包括模型和特征是否正確、數(shù)據(jù)是否具有足夠的代表性等。如果數(shù)據(jù)不足，則重新進(jìn)行數(shù)據(jù)采集；如果特征不明顯，則重新進(jìn)行特征提??；如果模型不佳，則選擇其他學(xué)習(xí)算法或進(jìn)一步調(diào)整參數(shù)。目前，k倍交叉驗(yàn)證法是最常見的驗(yàn)證模型方法。

效果評(píng)估：指評(píng)估模型的學(xué)習(xí)效果以及泛化能力的過程。泛化能力的評(píng)估通常是對(duì)測(cè)試集進(jìn)行效果評(píng)估。不同領(lǐng)域有不同指標(biāo)的提法，常見的效果評(píng)估指標(biāo)包括：精確率、召回率、準(zhǔn)確率、F-score以及ROC-AUC曲線等。

3.2.2.安全防御

基于人工智能的安全防御研究基本涵蓋了網(wǎng)絡(luò)空間安全的各個(gè)層面，可以從系統(tǒng)安全、網(wǎng)絡(luò)安全、應(yīng)用安全三個(gè)層面進(jìn)行歸納（圖9）[4]。

系統(tǒng)安全類：系統(tǒng)安全應(yīng)用涵蓋了芯片、系統(tǒng)硬件及物理環(huán)境、系統(tǒng)軟件三個(gè)層面。其中，芯片安全包括：劣質(zhì)芯片檢測(cè)、硬件木馬檢測(cè)及物理不可克隆函數(shù)(Physical Unclonable Function,PUF)攻擊等；系統(tǒng)硬件及物理環(huán)境安全包括：設(shè)備身份認(rèn)證、密碼設(shè)備側(cè)信道攻擊及偽基站檢測(cè)等；系統(tǒng)軟件安全包括：漏洞分析與挖掘、惡意代碼分析、用戶身份認(rèn)證及虛擬化安全等。

網(wǎng)絡(luò)安全類：網(wǎng)絡(luò)安全應(yīng)用涵蓋了網(wǎng)絡(luò)基礎(chǔ)設(shè)施安全以及網(wǎng)絡(luò)安全檢測(cè)兩個(gè)方面。其中，網(wǎng)絡(luò)基礎(chǔ)設(shè)施安全包括：BGP的異常檢測(cè)、惡意域名檢測(cè)等；網(wǎng)絡(luò)安全檢測(cè)包括：僵尸網(wǎng)絡(luò)檢測(cè)、網(wǎng)絡(luò)入侵檢測(cè)以及惡意加密流量識(shí)別等。

應(yīng)用安全類：應(yīng)用安全涵蓋應(yīng)用軟件安全和社交網(wǎng)絡(luò)安全兩個(gè)方面。其中，應(yīng)用軟件安全主要包括：垃圾郵件檢測(cè)、惡意URL識(shí)別、惡意PDF檢測(cè)等；社交網(wǎng)絡(luò)安全主要包括：社交網(wǎng)絡(luò)異常帳號(hào)檢測(cè)、信用卡欺詐檢測(cè)、取證分析、網(wǎng)絡(luò)輿情等。

3.2.3.安全攻擊

基于人工智能的安全攻擊覆蓋了網(wǎng)絡(luò)空間不同層面，包括：物理攻擊、網(wǎng)絡(luò)攻擊、數(shù)據(jù)攻擊、應(yīng)用攻擊等。典型的攻擊場(chǎng)景包括：拒絕服務(wù)攻擊、社會(huì)工程攻擊、惡意代碼對(duì)抗等。圍繞網(wǎng)絡(luò)空間安全典型場(chǎng)景的主要研究?jī)?nèi)容如下所示（圖10）[5]。

網(wǎng)絡(luò)資產(chǎn)自動(dòng)探測(cè)識(shí)別：指追蹤、掌握網(wǎng)絡(luò)資產(chǎn)情況的過程技術(shù)。例如，通過引入機(jī)器學(xué)習(xí)、深度學(xué)習(xí)等方法，進(jìn)行操作系統(tǒng)指紋識(shí)別。

自動(dòng)化社會(huì)工程學(xué)攻擊：指利用機(jī)器學(xué)習(xí)、神經(jīng)網(wǎng)絡(luò)等方法實(shí)現(xiàn)釣魚式攻擊、蠕蟲傳播、垃圾郵件散發(fā)等攻擊過程的自動(dòng)化。例如，基于自然語言生成（NLG)的自動(dòng)化網(wǎng)絡(luò)釣魚攻擊方法，可以利用深度學(xué)習(xí)分析文本內(nèi)容，識(shí)別目標(biāo)感興趣的主題，生成目標(biāo)可能響應(yīng)的文本內(nèi)容，并以郵件、社交網(wǎng)站等作為惡意代碼傳輸載體實(shí)施攻擊。

智能惡意代碼攻擊：指針對(duì)惡意代碼檢測(cè)的對(duì)抗性攻擊。例如，在惡意代碼中插入一部分對(duì)抗性樣本，可繞過安全產(chǎn)品的檢測(cè)。

自動(dòng)化漏洞挖掘與利用：指在無人工干預(yù)的基礎(chǔ)上自動(dòng)化挖掘軟件內(nèi)部缺陷并利用該缺陷使軟件實(shí)現(xiàn)非預(yù)期功能。

4.人工智能安全實(shí)踐

通過人工智能技術(shù)賦能網(wǎng)絡(luò)安全產(chǎn)品和服務(wù)，可以有效應(yīng)對(duì)網(wǎng)絡(luò)空間結(jié)構(gòu)復(fù)雜化、安全大數(shù)據(jù)化、攻擊動(dòng)態(tài)演進(jìn)等變化帶來的挑戰(zhàn)，增強(qiáng)安全產(chǎn)品的防御能力，提高安全服務(wù)人員的生產(chǎn)率。為此，天融信秉承“可信網(wǎng)絡(luò) 安全世界”的理念，從技術(shù)研究和產(chǎn)品研發(fā)兩個(gè)層面推進(jìn)AI安全技術(shù)落地和實(shí)踐 (圖11)。

技術(shù)研究層面：公司成立了專業(yè)的研究團(tuán)隊(duì)，圍繞人工智能技術(shù)的安全應(yīng)用及人工智能應(yīng)用的自身安全，全面展開技術(shù)探索，目前已經(jīng)在DNS隧道檢測(cè)、DGA域名檢測(cè)、惡意PDF檢測(cè)、惡意樣本檢測(cè)、惡意樣本同源分析、安全實(shí)體識(shí)別、威脅情報(bào)挖掘、安全知識(shí)圖譜、對(duì)抗樣本生成等方面形成了技術(shù)積累。

產(chǎn)品研發(fā)層面：公司在安全檢測(cè)、安全網(wǎng)關(guān)、安全云服務(wù)、大數(shù)據(jù)分析、數(shù)據(jù)安全、云安全、工控安全等產(chǎn)品方面全面實(shí)現(xiàn)了AI賦能，進(jìn)一步提升了安全產(chǎn)品和市場(chǎng)競(jìng)爭(zhēng)力。

5.后記

無論是人工智能自身安全還是人工智能的安全應(yīng)用，相關(guān)研究工作對(duì)于推動(dòng)網(wǎng)絡(luò)空間安全發(fā)展都具有重要的意義。本文是人工智能安全研究方向的開篇介紹，后續(xù)將為讀者介紹具體的技術(shù)研究成果和應(yīng)用情況，敬請(qǐng)關(guān)注。

如文中描述有誤，懇請(qǐng)指出，感謝閱讀。

6.參考資料

[1]方濱興 人工智能安全[M]北京 電子工業(yè)出版社 2020.

[2]中國(guó)信息通信研究院安全研究所 人工智能安全框架（2020年)[R] 2020年12月.

[3]李欣姣 等人 機(jī)器學(xué)習(xí)安全攻擊與防御機(jī)制研究進(jìn)展和未來挑戰(zhàn)[J]軟件學(xué)報(bào) 2021 32(2):406-423.

[4]張蕾 等人 機(jī)器學(xué)習(xí)在網(wǎng)絡(luò)空間安全研究中的應(yīng)用[J]計(jì)算機(jī)學(xué)報(bào) 2018 41(9):1943-1975.

[5]方濱興 等人 人工智能賦能網(wǎng)絡(luò)攻擊的安全威脅及應(yīng)對(duì)策略[J]中國(guó)工程科學(xué) 2021

版權(quán)聲明

（轉(zhuǎn)載請(qǐng)務(wù)必注明出處。版權(quán)所有，違者必究。）